#비용 통제

기업 AI의 과제: 플랫폼이 아닌 '배포 문제'

기업들은 다단계 작업을 수행하는 에이전트 오케스트레이션 도입을 목표로 하지만, 실제로는 단순 챗봇 수준에 머물러 있는 등 도입 목표와 현실 간의 격차가 큰 상황입니다. 이 과정에서 특정 업체 종속을 피하기 위해 하이브리드 제어 환경 구축을 선호하며, 토큰 비용에 대한 실시간 통제가 부족해 비용 관리의 중요성이 대두되고 있습니다.

기업 AI 토큰 비용 폭발… 비용 통제에 비상 걸렸다

최근 글로벌 기업들이 무분별한 AI 도입으로 인해 감당하기 힘든 '토큰 비용' 폭탄을 맞고 있습니다. 특히 전문 개발자보다 PDF 변환 같은 단순 작업을 하는 비개발 직군이 토큰을 크게 소모하는 것으로 나타났습니다. 이에 우버 등 주요 기업들이 AI 도구 사용량을 제한하거나 토큰 예산을 통제하는 등 비용 절감에 나서고 있습니다.